Từ xa xưa huyện An Dương đã có tên trong cuốn lịch sử địa lý đầu tiên của nước ta. Thời đó huyện có 63 xã, với nền kinh tế phát triển mạnh mẽ về nhiều mặt. Ngày 11/9/1887, thực dân Pháp lập ra tỉnh Hải Phòng bao gồm 3 huyện Nghi Dương, An Lão và An Dương. Huyện An Dương bị thu hẹp lại với diện tích 11.245 ha.

Ngày 7 tháng 4 năm 1966, huyện Hải An và huyện An Dương được sáp nhập thành huyện An Hải có diện tích 20,842 ha, dân số trên 230.000 người.

Ngày 16 tháng 1 năm 1979, thành lập thị trấn Quán Toan trên cơ sở điều chỉnh một phần diện tích tự nhiên và nhân khẩu của xã Nam Sơn.[1]

Ngày 14 tháng 2 năm 1987, thành lập thị trấn An Dương - thị trấn huyện lỵ huyện An Hải - trên cơ sở 94,67 ha diện tích tự nhiên và 5.068 nhân khẩu của xã Lê Lợi; 60,48 ha diện tích tự nhiên và 897 nhân khẩu của xã Đồng Tâm; 12,41 ha diện tích tự nhiên và 217 nhân khẩu của xã Đồng Thái và 24,96 ha đất với 412 nhân khẩu của xã Nam Sơn; hợp nhất 2 xã Đồng Tâm và Đồng Tiến thành xã An Đồng.

Ngày 23 tháng 11 năm 1993, chuyển thị trấn Quán Toan và xã Hùng Vương về quận Hồng Bàng quản lý và đổi thành 2 phường có tên tương ứng.

Cuối năm 1999, huyện An Hải có 23 đơn vị hành chính trực thuộc gồm 22 xã: An Đồng, An Hòa, An Hồng, An Hưng, Bắc Sơn, Đại Bản, Đặng Cương, Đằng Hải, Đằng Lâm, Đông Hải, Đồng Thái, Dư Hàng Kênh, Hồng Phong, Hồng Thái, Lê Lợi, Lê Thiện, Nam Hải, Nam Sơn, Quốc Tuấn, Tân Tiến, Tràng Cát, Vĩnh Niệm và thị trấn An Dương.

Ngày 20 tháng 12 năm 2002, huyện An Dương được tái lập trên cơ sở đổi tên phần còn lại của huyện An Hải (sau khi tách 5 xã: Đằng Lâm, Đằng Hải, Đông Hải, Nam Hải, Tràng Cát để thành lập quận Hải An và chuyển nguyên trạng 2 xã Dư Hàng Kênh, Vĩnh Niệm về quận Lê Chân quản lý). Huyện An Dương từ đó có thị trấn An Dương và 15 xã: An Đồng, An Hòa, An Hồng, An Hưng, Bắc Sơn, Đại Bản, Đặng Cương, Đồng Thái, Hồng Phong, Hồng Thái, Lê Lợi, Lê Thiện, Nam Sơn, Quốc Tuấn, Tân Tiến.